加州理工分拆的初創公司PrismML宣稱,已將Qwen 3.6的270億參數模型從54GB壓縮至不到4GB,並成功在iPhone 17 Pro本地運行,且不犧牲性能。這一突破正好契合蘋果“端側AI”路線。最新消息稱,蘋果已經與PrismML就該技術展開溝通。
對於堅持“端側AI”路線的蘋果而言,一家初創公司的最新成就,或許即將解鎖iPhone“AI智能”的天花板。
最新報導顯示,美國初創公司PrismML表示,已經成功壓縮阿里巴巴開源大語言模型Qwen 3.6的270億參數量版本,使其能夠在 iPhone 17 Pro上運行。公司透露,他們為iPhone開發的“壓縮模型”能夠完成複雜對話、推理、完全自主的智能任務以及軟體程式設計等功能。該開源模型將於下周二開始提供下載。
參數量通常用來衡量模型處理問題的能力。一般而言,目前大多數手機和筆記型電腦只能運行數十億參數量的模型。除了處理器算力不足外,移動裝置的視訊記憶體容量也是難以踰越的障礙。